Атаки на основе вредоносных возмущений на системы обработки изображений и методы защиты от них
Аннотация:
Системы, реализующие технологии искусственного интеллекта, получили широкое распространение благодаря их эффективности в решении прикладных задач, включая компьютерное зрение. Обработка изображений посредством нейронных сетей применяется в критически важных для безопасности системах. В то же время использование искусственного интеллекта сопряжено с характерными угрозами, к которым относится и нарушение работы моделей машинного обучения. Феномен провокации некорректного отклика нейронной сети посредством внесения визуально незаметных человеку искажений впервые описан и привлек внимание исследователей в 2013 году. Методы атак на нейронные сети на основе вредоносных возмущений непрерывно совершенствовались, были предложены способы нарушения работы нейронных сетей при обработке различных типов данных и задач целевой модели. Угрозы нарушения функционирования нейронных сетей посредством указанных атак стала значимой проблемой для систем, реализующих технологии искусственного интеллекта. Таким образом, исследования в области противодействия атакам на основе вредоносных возмущений являются весьма актуальными. В данной статье представлено описание актуальных атак, приведен обзор и сравнительный анализ таких атак на системы обработки изображений с использованием искусственного интеллекта. Сформулированы подходы к классификации атак на основе вредоносных возмущений. Рассмотрены методы защиты от подобных атак, выявлены их недостатки. Показаны ограничения применяемых методов защиты, снижающие эффективность противодействия атакам. Предложены подходы по обнаружению и устранению вредоносных возмущений.
Ключевые слова:
Постоянный URL
Статьи в номере
- Определение типа действия ингибиторов гидратообразования по их инфракрасным спектрам
- Спектроскопия комбинационного рассеяния света в исследованиях процессов инактивации бактериальных микроорганизмов
- Численное исследование влияния концентрации метгемоглобина в крови на поглощение света в коже человека
- Низкотемпературная ячейка для инфракрасных фурье-спектрометрических исследований углеводородных веществ
- Особенности выращивания твердых растворов Ga1–xInxAs на подложках GaAs в поле температурного градиента через тонкую газовую зону
- Усовершенствованный протокол безопасности на основе AES-GCM для защиты связи в интернете вещей
- Сверхвысокое разрешение изображения магнитно-резонансной томографии головного мозга с использованием дискретного косинусного преобразования и сверточнойнейронной сети
- Метод аугментации текстовых данных с сохранением стиля речи и лексики персоны
- Верификация событийно-управляемых программных систем с использованием языка спецификации взаимодействующих автоматных объектов
- Интеллектуальная система адаптивного тестирования
- Нейросетевой метод визуального распознавания голосовых команд водителя с использованием механизма внимания
- Сегментация опухоли головного мозга на магнитно-резонансной томографии с использованием нечеткого деформируемого слияния и алгоритма Dolphin-SCA
- Оптимизация систем отслеживания человека в виртуальной реальности на основе нейросетевого подхода
- Погрешности алгоритма демодуляции с генерируемой фазой несущей, вносимые фильтром низкой частоты
- Моделирование процесса корректировки формы роторов шаровых гироскопов
- Метод пространственного мультиплексирования в многоантенных системах связи
- Математическое моделирование теплообменного аппарата с учетом сильной зависимости вязкости нефти от температуры
- Подход к формированию обобщенных параметров технического состояния сложных технических систем c использованием нейросетевых структур
- Численное моделирование газодинамики при работе широкодиапазонного ракетного сопла с пористой вставкой
- Точное решение задачи отражения ударной волны от стенки, экранированной слоем газовзвеси
- Адаптивный наблюдатель переменных состояния нелинейной нестационарной системы с неизвестными постоянными параметрами и запаздыванием в канале измерений
- RuLegalNER: новый датасет для распознавания именованных юридических сущностей на русском языке